저자는 첫째 아이의 디지털 발자국을 만들어주던 초기 인터넷 낙관론에서 벗어나, 소셜 미디어의 유해성을 목격하며 아이들의 기술 사용을 제한하는 입장으로 전환한 경험을 공유합니다. 호주의 16세 미만 소셜 미디어 금지법 등 전 세계적인 규제 흐름과 함께, AI 시대에 아이들이 실제 세계에서 생존하고 번창하도록 준비시키는 방법을 고민합니다.
캘리포니아를 비롯한 미국 28개 주가 메타를 상대로 제기한 소송의 첫 주 재판에서, 검찰 측 변호사는 메타가 사용자를 '끌어들여(hook), 붙잡아(hold), 데이터를 수집하고(harvest), 진실을 은폐한다(hide)'고 주장했습니다. 아동 프라이버시법 위반 혐의로 배상금이 최대 2,000억 달러에 달할 수 있는 이 재판은 메타의 사업 모델 자체에 존재론적 위협이 될 수 있습니다.
포른허브의 모회사 아일로(Aylo, 구 마인드지크)는 성매매 및 아동성학물 관련 연방법 위반 혐의 집단소송 두 건에 대해 1억 2천만 달러를 지급하기로 합의했습니다. 합의에는 콘텐츠 검증, 인적·자동 검수, 의심 콘텐츠 신고 등 콘텐츠 moderatio조항도 포함되어 있어, 성인 플랫폼의 안전장치 강화가 업계 전반에 미칠 영향이 주목됩니다.
저자는 아마존 베스트셀러인 AI 생성 어린이 백과사전을 직접 구매하여 분석했습니다. 그 결과, 최신 AI 모델로 제작되었음에도 불구하고 등장인물의 기괴한 일그러짐과 무서운 분위기 등 심각한 품질 문제를 발견했습니다. 이는 구매자(부모)와 독자(아이)가 다른 콘텐츠 시장의 특성상 빠르게 퍼지고 있으며, 검증되지 않은 AI 콘텐츠가 아동에게 미칠 악영향에 대한 경고로 작용합니다.
10대 남학생들이 소셜 미디어 사진을 악용해 여학생의 가짜 성적 합성물을 만드는 딥페이크 범죄가 전 세계 학교로 확산되고 있습니다. 이는 미성년자가 포함된 아동 성학대 물질(CSAM)에 해당하며, 피해자들에게 막대한 정신적 피해를 주고 있습니다. 생성형 AI 기술의 접근성이 높아짐에 따라 학교와 당국의 실효성 있는 대응과 피해자 보호가 시급한 과제로 떠올랐습니다.
오픈AI가 AI 기술을 악용한 아동 성 착취 범죄 급증에 대응하기 위해 미국 내 아동 보호 노력을 강화하는 '아동 안전 청사진'을 발표했습니다. 이 청사진은 법률 개정, 수사 기관 보고 체계 개선, AI 시스템 내 예방 조치 통합 등 3가지 핵심 분야에 중점을 두어 위협을 조기에 탐지하고 신속하게 수사관에게 정보를 전달하는 것을 목표로 합니다. 이는 최근 AI 챗봇과의 상호작용으로 인한 자살 사망 사고로 인한 정책 입안자들의 비판과 소송이 잇따르는 가운데 나온 안전 강화 조치입니다.